Beliau pernah menjadi Ketua Pemuda PAS pusat selama 10 tahun dalam tahun 1958 ketika Pas dipimpin oleh Dr Burhanuddin dan Tan Sri Datuk Dr. Haji Mohd Asri dan pernah memangku Setiausaha Agung PAS daripada Ustaz Othman Abdullah (1960).

Tahun 1969, Abu Bakar Hamzah dipindahkan dari parlimen Bachok ke kawasan DUN Sanglang, Perlis dan diumumkan akan menjadi Menteri Besar Perlis jika menang di sana. Tetapi Abu Bakar kalah di sana. Ekoran itu Presiden PAS, Mohd Asri melantik Abu Bakar sebagai Setiausaha Agung PAS pada 1972 dan sebagai Senator mewakili negeri Kelantan.